Các thư viện đầu tiên không phải là thư viện đầy đủ, phần nhiều nó chứa đựng những hồ sơ chưa xuất bản giống trong cơ quan lưu trữ. Các nhà khảo cổ học đã đào đất ở các thành quốc tại Sumer cổ, kiếm thấy các phòng đầy phiến sét được viết bằng chữ hình nêm. Các cơ quan lưu trữ này có gần hết là hồ sơ về kinh doanh hay kiểm kê, chỉ có vài tài liệu nói đến những chủ đề thần học hay thần thoại học. Các hồ sơ chính phủ Ai Cập cổ được viết trên giấy cói cũng như vậy.

viện cá nhân có sách về việc thật và tiểu thuyết (thay vì các hồ sơ chính phủ được giữ trong cơ quan lưu giữ) được xây dựng mới đầu tại Hy Lạp cổ, bắt đầu từ khoảng thế kỷ 5 TCN. Nó có những cuộn giấy da và sau đó có cuộn giấy cói. Cũng có vài thư viện của học viện hay thư viện hoàng gia như là Thư viện Alexandria mở cửa cho công chúng, nhưng phần nhiều các bộ sưu tập vẫn còn được giữ cá nhân. Trong những trường hợp ít gặp mà học giả có thể tham khảo sách trong thư viện, hình như họ không được truy cập thẳng vào các giá sách. Trong các trường hợp được ghi xuống, những sách được giữ trong phòng nhỏ để các người làm vào lấy sách cho độc giả, họ phải đọc sách trong phòng bên cạnh hay đường bộ che.

Chúng ta không biết nhiều về các thư viện Trung Quốc cổ, trừ ra những tài liệu về thư viện hoàng đế được bắt đầu vào nhà Tần. Một trong những người phụ trách của thư viện hoàng đế được coi là người phát triển hệ thống phân loại và hệ thống đầu sách đầu tiên trong thư viện. Vào lúc này mục lục thư viện được viết trên cuộn giấy bằng tơ và được lưu giữ trong bao tơ.